本章介绍倾向得分的几个应用:

• 在回归中将倾向得分作为一个协变量;
• 用逆倾向得分作为回归权重.

这是基于下面的原因:

• 易于实现, 回归中只包含标准的统计库;
• 效果和很多复杂方法相当;
• 能轻松扩展到其他模型, 包括机器学习算法.

1 在回归中将倾向得分作为一个协变量

根据 这个定理, 如果 ${\displaystyle X}$ 条件下可忽略性成立, 则在 ${\displaystyle e(X)}$ 下也成立: $$Z\perp \perp \{Y(1),Y(0)\}|e(X).$$ 类似 (2.2), ${\displaystyle \tau }$ 也可以无参数地表示为 $$\tau =\mathbb{E}\left[\mathbb{E}\{Y|Z=1,e(X)\}-\mathbb{E}\{Y|Z=0,e(X)\}\right],$$ 这启发了 ${\displaystyle Y}$ 在 ${\displaystyle Z,e(X)}$ 上回归的算法. 最简单的 OLS 就是 ${\displaystyle Y}$ 在 ${\displaystyle \{1,Z,e(X)\}}$ 上的回归. 这里 ${\displaystyle Z}$ 的系数 ${\displaystyle {\tau }_e}$ 作为估计量. 为了简单起见, 我们讨论群体 OLS: $$\arg \underset{a,b,c}{min}\mathbb{E}\{Y-a-bZ-ce(X){\}}^2,$$ 然后定义 ${\displaystyle {\tau }_e}$ 为 ${\displaystyle Z}$ 的系数. 如果我们有一个正确的倾向得分模型, 且结果模型却是关于 ${\displaystyle Z,e(X)}$ 是线性的, 那它关于 ${\displaystyle \tau }$ 是一致的. 更有趣的是, ${\displaystyle {\tau }_e}$ 可以估计 前面 提到的 ${\displaystyle {\tau }_{\mathrm{O}}}$, 如果我们有一个正确的倾向得分模型, 即使结果模型完全错误.

这说明重合度条件再也不需要了. 即使有些单元的 ${\displaystyle e(X)}$ 为 ${\displaystyle 0/1}$, 它们的权重都是 ${\displaystyle e(X)[1-e(X)]=0}$, 所以它们不用为 ${\displaystyle {\tau }_{\mathrm{O}}}$ 贡献任何东西.

从证明看出, 我们可以简单的把 ${\displaystyle Y}$ 在 ${\displaystyle Z-e(X)}$ 上跑 OLS. 进一步地, 我们可以把 ${\displaystyle X}$ 包括进 OLS 拟合, 它在有限样本中可能能提升精度. 不过这不会改变待估计量就是 ${\displaystyle {\tau }_{\mathrm{O}}}$. 我们把这些结果总结如下:

定理 1.1 启发了一个两步的 ${\displaystyle {\tau }_{\mathrm{O}}}$ 的估计方法:

• 拟合倾向得分模型来得到 ${\displaystyle \hat{e}(X_i)}$;
• ${\displaystyle Y_i}$ 在 ${\displaystyle (1,X_i,\hat{e}(X_i))}$ 上跑 OLS, 得到 ${\displaystyle Z_i}$ 的系数.

推论 的 (1) 启发了:

• 拟合 ${\displaystyle \hat{e}(X_i)}$;
• ${\displaystyle Y_i}$ 在 ${\displaystyle Z_i-\hat{e}(X_i)}$ 上跑 OLS, 得到 ${\displaystyle Z_i}$ 的系数.

推论的 (2) 启发了:

• 拟合 ${\displaystyle \hat{e}(X_i)}$;
• ${\displaystyle Y_i}$ 在 ${\displaystyle (1,Z_i,\hat{e}(X_i),X_i)}$ 上跑 OLS, 得到 ${\displaystyle Z_i}$ 的系数.

尽管 OLS 对点估计很方便, 但是标准误差会是错误的, 因为第一步倾向得分估计的不确定性. 我们可以用 bootstrap 来近似估计标准误差.

2 用逆倾向得分作为回归权重

2.1 平均因果效应

我们再来看一下 hajek估计量 $${\hat{\tau }}^{\mathrm{hajek}}=\frac{\sum _{i=1}^n\frac{Z_i{Y}_i}{\hat{e}(X_i)}}{\sum _{i=1}^n\frac{Z_i}{\hat{e}(X_i)}}-\frac{\sum _{i=1}^n\frac{(1-Z_i)Y_i}{1-\hat{e}(X_i)}}{\sum _{i=1}^n\frac{1-Z_i}{1-\hat{e}(X_i)}},$$ 这等于实验/对照组的结果加权均值之差. 数值上, 它等于 ${\displaystyle Y_i}$ 在 ${\displaystyle (1,Z_i)}$ 上 WLS 的 ${\displaystyle Z_i}$ 系数:

从这个命题看出, 我们可以通过 WLS 容易地得到 ${\displaystyle {\hat{\tau }}^{\mathrm{hajek}}}$. 当然因为倾向得分估计的不确定性, 我们同样要用 bootstrap 来估计标准误差.

为什么 WLS 能给出 ${\displaystyle \tau }$ 的一致估计量?
在 CRE 中, 我们直接 ${\displaystyle Y_i\sim (1,Z_i)}$ 然后用 ${\displaystyle Z_i}$ 的系数估计 ${\displaystyle \tau }$. 在观察性研究中, 各个样本进对照/实验组的概率是不同的, 但如果我们用 ${\displaystyle \frac{1}{e(X_i)}}$ 去加权处理组, ${\displaystyle \frac{1}{1-e(X_i)}}$ 去加权对照组, 则它们都能代表总体. 通过加权, 实际上我们人为制造了一个"伪随机实验".

此外, 基于 WLS 的这个估计量还是双重稳定的.

记 ${\displaystyle e(X_i,\hat{\alpha })}$ 为拟合的倾向得分, ${\displaystyle ({\mu }_1(X_i,{\hat{\beta }}_1),{\mu }_0(X_i,{\hat{\beta }}_0))}$ 是结果均值在 WLS 下的拟合值. 结果回归估计量为 $${\hat{\tau }}_{\mathrm{wls}}^{\mathrm{reg}}=\frac{1}{n}\sum _{i=1}^n{\mu }_1(X_i,{\hat{\beta }}_1)-\frac{1}{n}\sum _{i=1}^n{\mu }_0(X_i,{\hat{\beta }}_0),$$
而 ${\displaystyle \tau }$ 的双重稳定估计量为 $${\hat{\tau }}_{\mathrm{T},\mathrm{wls}}^{\mathrm{dr}}={\hat{\tau }}_{\mathrm{T},\mathrm{wls}}^{\mathrm{reg}}+\frac{1}{n}\sum _{i=1}^n\frac{Z_i\{Y_i-{\mu }_1(X_i,{\hat{\beta }}_1)\}}{e(X_i,\hat{\alpha })}-\frac{1}{n}\sum _{i=1}^n\frac{(1-Z_i)\{Y_i-{\mu }_0(X_i,{\hat{\beta }}_0)\}}{1-e(X_i,\hat{\alpha })}.$$
一个有趣的结果将两者关联:

我们用下表总结因果效应的各种回归估计量.

2.2 实验单元的平均因果效应

${\displaystyle {\tau }_{\mathrm{T}}}$ 的结果和 ${\displaystyle \tau }$ 的是平行的. 首先是 ${\displaystyle {\tau }_{\mathrm{T}}}$ 的 Hajek 估计量 $${\hat{\tau }}_{\mathrm{T}}^{\mathrm{hajek}}=\hat{\bar{Y}}(1)-\frac{\sum _{i=1}^n\hat{o}(X_i)(1-Z_i)Y_i}{\sum _{i=1}^n\hat{o}(X_i)(1-Z_i)},$$ 这里 ${\displaystyle \hat{o}(X_i)=\frac{\hat{e}(X_i)}{1-\hat{e}(X_i)}}$, 等于 ${\displaystyle Y_i}$ 在 ${\displaystyle (1,Z_i)}$ 的如下 WLS 中, ${\displaystyle Z_i}$ 的系数.

如果我们中心化协变量: ${\displaystyle \hat{\bar{X}}(1)=0}$, 则可以用 (2.2) 的 ${\displaystyle Y_i\sim (1,Z_i,X_i,Z_i{X}_i)}$ 下 ${\displaystyle Z_i}$ 的系数. 类似地, 它等于回归估计量 $${\hat{\tau }}_{\mathrm{T},\mathrm{wls}}^{\mathrm{reg}}=\hat{\bar{Y}}(1)-\frac{1}{n_1}\sum _{i=1}^n{Z}_i{\mu }_0(X_i,{\hat{\beta }}_0),$$ 也等于双重稳健估计量 $${\hat{\tau }}_{\mathrm{T},\mathrm{wls}}^{\mathrm{dr}}={\hat{\tau }}_{\mathrm{T},\mathrm{wls}}^{\mathrm{reg}}-\frac{1}{n_1}\sum _{i=1}^n\hat{o}(X_i)(1-Z_i)\{Y_i-{\mu }_0(X_i,{\hat{\beta }}_0)\}.$$